home *** CD-ROM | disk | FTP | other *** search
/ Linux Cubed Series 4: GNU Archives / Linux Cubed Series 4 - GNU Archives.iso / gnu / glibc-1.09 / glibc-1 / glibc-1.09.1 / malloc / mcheck.c < prev    next >
Encoding:
C/C++ Source or Header  |  1994-09-24  |  5.4 KB  |  216 lines
  1. /* Standard debugging hooks for `malloc'.
  2.    Copyright 1990, 1991, 1992, 1993, 1994 Free Software Foundation, Inc.
  3.    Written May 1989 by Mike Haertel.
  4.  
  5. This library is free software; you can redistribute it and/or
  6. modify it under the terms of the GNU Library General Public License as
  7. published by the Free Software Foundation; either version 2 of the
  8. License, or (at your option) any later version.
  9.  
  10. This library is distributed in the hope that it will be useful,
  11. but WITHOUT ANY WARRANTY; without even the implied warranty of
  12. MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13. Library General Public License for more details.
  14.  
  15. You should have received a copy of the GNU Library General Public
  16. License along with this library; see the file COPYING.LIB.  If
  17. not, write to the Free Software Foundation, Inc., 675 Mass Ave,
  18. Cambridge, MA 02139, USA.
  19.  
  20.    The author may be reached (Email) at the address mike@ai.mit.edu,
  21.    or (US mail) as Mike Haertel c/o Free Software Foundation.  */
  22.  
  23. #ifndef    _MALLOC_INTERNAL
  24. #define    _MALLOC_INTERNAL
  25. #include <malloc.h>
  26. #include <stdio.h>
  27. #endif
  28.  
  29. /* Old hook values.  */
  30. static void (*old_free_hook) __P ((__ptr_t ptr));
  31. static __ptr_t (*old_malloc_hook) __P ((__malloc_size_t size));
  32. static __ptr_t (*old_realloc_hook) __P ((__ptr_t ptr, __malloc_size_t size));
  33.  
  34. /* Function to call when something awful happens.  */
  35. static void (*abortfunc) __P ((enum mcheck_status));
  36.  
  37. /* Arbitrary magical numbers.  */
  38. #define MAGICWORD    0xfedabeeb
  39. #define MAGICFREE    0xd8675309
  40. #define MAGICBYTE    ((char) 0xd7)
  41. #define MALLOCFLOOD    ((char) 0x93)
  42. #define FREEFLOOD    ((char) 0x95)
  43.  
  44. struct hdr
  45.   {
  46.     __malloc_size_t size;        /* Exact size requested by user.  */
  47.     unsigned long int magic;    /* Magic number to check header integrity.  */
  48.   };
  49.  
  50. #if    defined(_LIBC) || defined(STDC_HEADERS) || defined(USG)
  51. #define flood memset
  52. #else
  53. static void flood __P ((__ptr_t, int, __malloc_size_t));
  54. static void
  55. flood (ptr, val, size)
  56.      __ptr_t ptr;
  57.      int val;
  58.      __malloc_size_t size;
  59. {
  60.   char *cp = ptr;
  61.   while (size--)
  62.     *cp++ = val;
  63. }
  64. #endif
  65.  
  66. static enum mcheck_status checkhdr __P ((const struct hdr *));
  67. static enum mcheck_status
  68. checkhdr (hdr)
  69.      const struct hdr *hdr;
  70. {
  71.   enum mcheck_status status;
  72.   switch (hdr->magic)
  73.     {
  74.     default:
  75.       status = MCHECK_HEAD;
  76.       break;
  77.     case MAGICFREE:
  78.       status = MCHECK_FREE;
  79.       break;
  80.     case MAGICWORD:
  81.       if (((char *) &hdr[1])[hdr->size] != MAGICBYTE)
  82.     status = MCHECK_TAIL;
  83.       else
  84.     status = MCHECK_OK;
  85.       break;
  86.     }
  87.   if (status != MCHECK_OK)
  88.     (*abortfunc) (status);
  89.   return status;
  90. }
  91.  
  92. static void freehook __P ((__ptr_t));
  93. static void
  94. freehook (ptr)
  95.      __ptr_t ptr;
  96. {
  97.   struct hdr *hdr = ((struct hdr *) ptr) - 1;
  98.   checkhdr (hdr);
  99.   hdr->magic = MAGICFREE;
  100.   flood (ptr, FREEFLOOD, hdr->size);
  101.   __free_hook = old_free_hook;
  102.   free (hdr);
  103.   __free_hook = freehook;
  104. }
  105.  
  106. static __ptr_t mallochook __P ((__malloc_size_t));
  107. static __ptr_t
  108. mallochook (size)
  109.      __malloc_size_t size;
  110. {
  111.   struct hdr *hdr;
  112.  
  113.   __malloc_hook = old_malloc_hook;
  114.   hdr = (struct hdr *) malloc (sizeof (struct hdr) + size + 1);
  115.   __malloc_hook = mallochook;
  116.   if (hdr == NULL)
  117.     return NULL;
  118.  
  119.   hdr->size = size;
  120.   hdr->magic = MAGICWORD;
  121.   ((char *) &hdr[1])[size] = MAGICBYTE;
  122.   flood ((__ptr_t) (hdr + 1), MALLOCFLOOD, size);
  123.   return (__ptr_t) (hdr + 1);
  124. }
  125.  
  126. static __ptr_t reallochook __P ((__ptr_t, __malloc_size_t));
  127. static __ptr_t
  128. reallochook (ptr, size)
  129.      __ptr_t ptr;
  130.      __malloc_size_t size;
  131. {
  132.   struct hdr *hdr = ((struct hdr *) ptr) - 1;
  133.   __malloc_size_t osize = hdr->size;
  134.  
  135.   checkhdr (hdr);
  136.   if (size < osize)
  137.     flood ((char *) ptr + size, FREEFLOOD, osize - size);
  138.   __free_hook = old_free_hook;
  139.   __malloc_hook = old_malloc_hook;
  140.   __realloc_hook = old_realloc_hook;
  141.   hdr = (struct hdr *) realloc ((__ptr_t) hdr, sizeof (struct hdr) + size + 1);
  142.   __free_hook = freehook;
  143.   __malloc_hook = mallochook;
  144.   __realloc_hook = reallochook;
  145.   if (hdr == NULL)
  146.     return NULL;
  147.  
  148.   hdr->size = size;
  149.   hdr->magic = MAGICWORD;
  150.   ((char *) &hdr[1])[size] = MAGICBYTE;
  151.   if (size > osize)
  152.     flood ((char *) (hdr + 1) + osize, MALLOCFLOOD, size - osize);
  153.   return (__ptr_t) (hdr + 1);
  154. }
  155.  
  156. static void
  157. mabort (status)
  158.      enum mcheck_status status;
  159. {
  160.   const char *msg;
  161.   switch (status)
  162.     {
  163.     case MCHECK_OK:
  164.       msg = "memory is consistent, library is buggy";
  165.       break;
  166.     case MCHECK_HEAD:
  167.       msg = "memory clobbered before allocated block";
  168.       break;
  169.     case MCHECK_TAIL:
  170.       msg = "memory clobbered past end of allocated block";
  171.       break;
  172.     case MCHECK_FREE:
  173.       msg = "block freed twice";
  174.       break;
  175.     default:
  176.       msg = "bogus mcheck_status, library is buggy";
  177.       break;
  178.     }
  179. #ifdef __GNU_LIBRARY__
  180.   __libc_fatal (msg);
  181. #else
  182.   fprintf (stderr, "mcheck: %s\n", msg);
  183.   fflush (stderr);
  184.   abort ();
  185. #endif
  186. }
  187.  
  188. static int mcheck_used = 0;
  189.  
  190. int
  191. mcheck (func)
  192.      void (*func) __P ((enum mcheck_status));
  193. {
  194.   abortfunc = (func != NULL) ? func : &mabort;
  195.  
  196.   /* These hooks may not be safely inserted if malloc is already in use.  */
  197.   if (!__malloc_initialized && !mcheck_used)
  198.     {
  199.       old_free_hook = __free_hook;
  200.       __free_hook = freehook;
  201.       old_malloc_hook = __malloc_hook;
  202.       __malloc_hook = mallochook;
  203.       old_realloc_hook = __realloc_hook;
  204.       __realloc_hook = reallochook;
  205.       mcheck_used = 1;
  206.     }
  207.  
  208.   return mcheck_used ? 0 : -1;
  209. }
  210.  
  211. enum mcheck_status
  212. mprobe (__ptr_t ptr)
  213. {
  214.   return mcheck_used ? checkhdr (ptr) : MCHECK_DISABLED;
  215. }
  216.